ThinkFlow: Self-Evolving Probabilistic Latent Memory for Lifelong Conversational Agents
ThinkFlow:面向终身对话智能体的自进化概率潜在记忆框架
🧭 Agent 长程记忆 · 概率潜在技能 ★ 深度解读
Pengcheng Laboratory · Harbin Institute of Technology, Shenzhen · China Unicom Greater Bay Area Innovation Institute
将对话流压缩为概率潜在记忆技能,用下一用户话语预测实现无标签终身自进化
📌 工作参考价值(4 点)
- 把用户长期行为/画像从显式文本摘要改为 K 个可学习潜在槽(probabilistic latent skills),用 cross-attention 压缩对话/行为流,再作为 soft prompt 前置给生成式推荐或导购 Agent;能显著降低 prompt 长度并绕过摘要的信息瓶颈。
- 在线更新记忆时参考 GLC:用信息增益门控 + GRU 做增量更新,只写入高新颖度信息,过滤寒暄/重复点击等噪声;推荐系统中可对实时行为流做类似门控记忆,防止用户画像被低频噪声污染。
- 测试时无标签进化:把下一次点击/下一个 query/下一句用户话术作为自监督目标,先做教师蒸馏冷启动,再用预测损失持续调整记忆,部署后无需人工打标即可个性化;适合电商客服、消息推送文案生成等场景。
- CAHA 用当前 query 生成低秩适配矩阵,把历史记忆对齐到当前上下文:可用 hypernetwork 生成 per-request LoRA 增量,平衡个性化与算力。